Là một người Hồi, ông là Chủ tịch Liên đoàn Bảo vệ Hồi giáo Trung Hoa, rồi Chủ tịch Hiệp hội Hồi giáo Trung Hoa.[43] Bạch Sùng Hy cũng là thành viên Ban Chấp hành Hiệp hội Tôn giáo toàn Trung Hoa, đại diện cho đạo Hồi, những nhóm tôn giáo khác gồm có Trưởng lão Cơ Đốc, Trưởng lão Methodist và Phật giáo Đại thừa.[44]

Bạch gửi con trai Bạch Tiên Dũng vào học trường Cơ Đốc ở Hong Kong.[45]

Trong Chiến tranh Bắc phạt, năm 1926, tại Quảng Tây, Bạch Sùng Hy cho quân lính tàn phá chùa chiền và đập nát các tượng Phật, dùng các ngôi chùa làm trường học và trụ sở Quốc dân Đảng địa phương.[46] Có báo cáo cho rằng hầu hết đền chùa ở Quảng Tây bị Bạch phá hủy trong giai đoạn này. Các nhà sư bị đuổi đi nơi khác.[47] Bạch cũng lãnh đạo cao trào bài ngoại tại Quảng Tây, tấn công người Mỹ, Âu, cũng như những người nước ngoài khác và những nhà truyền giáo ngoại quốc, và về cơ bản biến Quảng Tây thành nơi nguy hiểm cho người nước ngoài. Người phương Tây trốn khỏi tỉnh, trong khi một số người Cơ Đốc Trung Hoa cũng bị tấn công vì bị cho là gián điệp của chủ nghĩa đế quốc.[48]

Ba mục tiêu của phong trào này là bài ngoại, bài đế quốc, và bài tôn giáo. Bạch lãnh đạo phong trào bài tôn giáo chống lại nạn mê tín. Người Hồi không tin vào việc thờ cúng ngẫu tượng (xem thêm Shirk (Hồi giáo)) và tôn giáo của ông có thể đã ảnh hưởng đến quyết định của Bạch chống lại việc thờ cúng ngẫu tượng trong các đền chùa cũng như những phong tục mê tín dị đoan rất phổ biến ở Trung Hoa. Tuy nhiên, Hoàng Thiệu Hoành, cũng là một thành viên phe Tân Quế, cũng ủng hộ chiến dịch của Bạch, dù Hoàng không theo đạo Hồi. Phong trào bài tôn giáo được tất cả các thành viên phe Tân Quế đồng ý, thế nên cũng có thể việc này không có liên quan gì đến tín ngưỡng của Bạch.[49]

Dù là đảng viên Quốc dân đảng, Bạch và những thành viên phe Tân Quế lại cho phép phe Cộng sản tiếp tục tấn công người nước ngoài và phá hủy ngẫu tượng, vì Cộng sản cũng có mục tiêu bài ngoại, tuy nhiên họ vẫn ngăn cản phe Cộng sản đưa ra bất cứ thay đổi xã hội nào.[50]

Các nhà ngoại giao Anh cũng báo cáo rằng ông có uống rượu vang và ăn thịt lợn (vốn bị cấm với người theo Hồi giáo).[51][52]

Bạch Sùng Hy cũng quan tâm đến Tân Cương, một tỉnh mà Hồi giáo chiếm đa số. Ông muốn tái tổ chức những đơn vị Trung Hoa đã rã ngũ trong tỉnh để ngăn chặn mối đe dọa từ Liên Xô.[53] Bạch từng phát biểu rằng các dân tộc thiểu số Trung Hoa bị các thế lực ngoại bang áp bức. Ông lấy những ví dụ cụ thể, như người Tạng bị người Anh thống trị, người Mãn Châu bị người Nhật thống trị, người Mông bị nước Cộng hòa Nhân dân Ngoại Mông thống trị, và người Hồi Tân Cương bị Liên Xô áp bức. Bạch kêu gọi Trung Hoa giúp đỡ các dân tộc này đánh đuổi ngoại bang khỏi những vùng đất này. Bản thân ông từng muốn lãnh đạo một đội quân chiếm lại Tân Cương cho Trung Hoa, theo gương Tả Tông Đường trong cuộc nổi dậy Dungan.[53] Đồng minh của Bạch trong phe Quảng Tây là Hoàng Thiệu Hoành khởi thảo một kế hoạch xâm lược Tân Cương. Trong Loạn Kumul, Tưởng Giới Thạch đã chuẩn bị gửi đội quân của Hoàng Thiệu Hoành đến hỗ trợ tướng Hồi giáo Mã Trọng Anh chống lại Thịnh Thế Tài, nhưng khi Tưởng nghe tin Liên Xô xâm lược Tân Cương, ông ta quyết định rút lui để tránh một sự kiện tầm quốc tế trong trường hợp quân đội của ông ta đụng độ quân Xô viết, bỏ mặc tướng Mã cô độc chống lại Hồng quân. Hoàng bất mãn, ngờ rằng Tưởng lo sợ phe Quảng Tây sẽ chiếm mất quyền lực ở Tân Cương khỏi tay Chính phủ Nam Kinh của Tưởng.[54]